Huang belajar di Sekolah Ketenteraan Zhejiang dan Akademi Qiushi (kini Universiti Zhejiang), kemudian dihantar ke Jepun pada 1904.[1] Huang mula berhubung dengan Tongmenghui ketika belajar di Tokyo Shinbu Gakko, sebuah akademi ketenteraan di Tokyo pada 1905, setelah itu Huang bertemu dengan Chiang Kai-shek dan Zhang Qun pada 1907 ketika mereka tiba di Jepun untuk belajar. Pada 1908, beliau belajar melalukan tinjauan di bawah bimbingan Tentera Empayar Jepun dan kembali ke China pada 1910.Sepanjang Revolusi Xinhai 1911, Huang dan Chen Qimei mengumumkan bahawa Shanghai menjadi wilayah bebas dari empayar China. Huang kemudian berhubung dengan Chiang Kai-shek.

Huang terpaksa melarikan diri ke Amerika Syarikat melalui Jepun setelah kegagalan Revolusi Kedua 1913 menentang Yuan Shikai. Beliau kembali pada 1916 dan mengambil bahagian dalam tahapan akhir Perang Perlindungan Nasional. Huang juga menjadi wakil pemerintah ketenteraan Zhejiang di Beijing. Ketika Sun Yat-sen memerintahkan seluruh anggota Kuomintang untuk bersumpah setia kepadanya, Huang keberatan dan meninggalkan bidang politik.

Huang muncul kembali dan menyokong agar China terlibat dalam Perang Dunia I dan berharap China akan mendapatkan kembali wilayahnya yang hilang. Beliau menjadi diplomat semasa pentadbiran Presiden Xu Shichang, kemudian menulis buku-buku mengenai ekonomi dan hubungan luar negeri serta sering menjadi pensyarah jemputan di pelbagai universiti. Huang menjadi anggota delegasi China dalam Persidangan Tentera Laut Washington 1921 yang berjaya mengamankan kemenangan diplomatik terbesar pemerintah Beiyang iaitu kembalinya Shandong.

Setelah kejatuhan presiden Cao Kun kerana Kudeta Beijing 1924, beliau menyertai Kelompok Zhili dan menjadi pemangku Presiden Republik China atas permintaan Feng Yuxiang. Huang menyatakan bahawa jawatan presiden yang diperoleh Cao Kun ialah sah kerama melalui cara-cara penyuapan dan belia6 juga menolak perjanjian yang memungkinkan bekas Empayar Puyi untuk tetap tinggal di Bandar Terlarang.

Huang berpengaruh dalam memenangkan Feng Yuxiang dan Yan Xishan di faksi Kuomintang (KMT) pimpinan Chiang Kai-shek, yang menjadi salah satu alasan utama mengapa rejim Wang Jingwei di Wuhan runtuh. Beliau kemudian memegang beberapa jawatan sepanjang dekad Nanjing termasuk menjadi datuk bandsr Shanghai, menteri luar negeri dan ketua Dewan Politik China Utara. Meskipun memiliki hubungan dekat bahkan telah menjadi saudara dengan Chiang, beliau tidak pernah bergabung kembali dengan KMT kerana beliau tidak ingin disebut sebagai ahli politik oportunis yang bergabung selama dan setelah Ekspedisi Utara. Pada 1933, beliau menandatangani Gencatan Senjata Tanggu yang tidak popular dengan menyerahkan Chahar, Rehe dan sebahagian dari wilayah Hebei kepada negara boneka Manchukuo. Seperti Chiang, beliau juga memandang Komunis sebagai ancaman yang lebih besar daripada Jepun.

Huang meninggal dunia kerana kanser paru-paru di Shanghai pada 1936.